高斯工艺是能够以代表不确定性的方式学习未知功能的机器学习模型，从而促进了最佳决策系统的构建。由于渴望部署新颖的科学领域的高斯过程，一种迅速增长的研究线路集中于建设性地扩展这些模型来处理非欧几里德域，包括黎曼歧管，例如球形和托尔。我们提出了概括这一类的技术，以模拟黎曼歧管上的矢量字段，这在物理科学中的许多应用领域都很重要。为此，我们介绍了构建规范独立核的一般配方，它诱导高斯矢量字段，即矢量值高斯工艺与几何形状相干，从标量值riemannian内核。我们扩展了标准高斯过程培训方法，例如变分推理，以此设置。这使得旨在使用标准方法培训的Riemannian歧管上的矢量值高斯流程，并使它们可以访问机器学习从业者。
translated by 谷歌翻译
随着由于排名引起的复杂几何结构而增加的对象的数量，许多排名数据的算法在计算上变得棘手。部分排名提出了一个额外的挑战，即首选项仅因所有对象的子集而闻名的排名。由于这些原因，最先进的方法无法扩展到现实世界中的应用程序，例如推荐系统。我们通过利用排名数据的几何结构以及有关对象的其他可用信息来解决这一挑战，以根据绘制剪切函数得出用于排名的内核。该图切割内核结合了子解体优化的效率与基于内核方法的理论特性。该图切割内核结合了子解体优化的效率与基于内核方法的理论特性。
translated by 谷歌翻译
2021-02-22
学习包括不同对象之间接触的动态系统的物理结构化表示是机器人技术中基于学习的方法的重要问题。黑盒神经网络可以学会大致表示不连续的动态，但是它们通常需要大量数据，并且在预测更长的时间范围时通常会遭受病理行为。在这项工作中，我们使用深层神经网络和微分方程之间的连接来设计一个深网架构家族，以表示对象之间的接触动态。我们表明，这些网络可以从传统上难以实现黑盒方法和最近启发的神经网络的设置中的嘈杂的观察结果中以数据效率的方式学习不连续的联系事件。我们的结果表明，一种理想化的触摸反馈形式（由生物系统严重依赖）是使这一学习问题可以解决的关键组成部分。加上通过网络体系结构引入的电感偏差，我们的技术可以从观测值中准确学习接触动力学。
translated by 谷歌翻译
多边缘最佳运输使人们能够比较多种概率措施，这些措施越来越多地发现在多任务学习问题中的应用。多边缘运输的一个实际限制是测量，样品和维度数量的计算可扩展性。在这项工作中，我们提出了一种基于随机一维投影的多边缘最佳运输范例，其（广义）距离我们术语切片的多边缘Wasserstein距离。为了构建该距离，我们介绍了一维多边缘Kantorovich问题的表征，并使用它来突出切片的多边缘Wasserstein距离的许多属性。特别是，我们表明（i）切片的多边缘Wasserstein距离是一种（概括的）指标，其诱导与标准的Wasserstein距离相同的拓扑，（ii）它承认无维样本复杂度，（iii）是与切片沃斯斯坦度量标准下的双重Centric的问题紧密连接。我们通过说明切片的多边缘Wasserstein对多任务密度估计和多动力增强学习问题的结论。
translated by 谷歌翻译
各种科学和工程领域使用参数化机制模型。工程师和科学家通常可以假设几个竞争模型来解释特定的过程或现象。考虑一个模特歧视设置，我们希望找到最佳机械，动态模型候选者和最佳模型参数估计。通常，若干竞争机械模型可以解释可用数据，因此通过找到最大化模型预测发散的实验设置，可以通过找到最大化模型预测发散的实验设置来实现最佳地收集额外数据的动态实验。我们争论文献中有两种主要方法，用于解决最佳设计问题：（i）分析方法，使用线性和高斯近似来找设计目标的闭合表达式，以及（ii）数据驱动方法，这通常依赖于计算密集的蒙特卡罗技术。 olofsson等人。 （ICML 35,2018）介绍了高斯工艺（GP）替代模型来杂交的分析和数据驱动方法，这允许计算的实验设计，以识别黑盒式模型。在这项研究中，我们证明我们可以扩展现有的动态实验设计方法，以纳入更广泛的问题不确定性。我们还延伸了Olofsson等人。 （2018）使用GP代理模型来辨别动态黑盒式模型的方法。我们在文献中的着名案例研究中评估了我们的方法，并探讨了使用GP代理到近似基于梯度的方法的后果。
translated by 谷歌翻译
Large language models (LLMs) have been shown to be able to perform new tasks based on a few demonstrations or natural language instructions. While these capabilities have led to widespread adoption, most LLMs are developed by resource-rich organizations and are frequently kept from the public. As a step towards democratizing this powerful technology, we present BLOOM, a 176B-parameter open-access language model designed and built thanks to a collaboration of hundreds of researchers. BLOOM is a decoder-only Transformer language model that was trained on the ROOTS corpus, a dataset comprising hundreds of sources in 46 natural and 13 programming languages (59 in total). We find that BLOOM achieves competitive performance on a wide variety of benchmarks, with stronger results after undergoing multitask prompted finetuning. To facilitate future research and applications using LLMs, we publicly release our models and code under the Responsible AI License.
translated by 谷歌翻译
在这项工作中，我们对对象零件进行了一声视觉搜索。给定具有带注释的负担区域的对象的单个参考图像，我们在目标场景中以语义对应部分进行分段。我们提出了Affcorrs，这是一种无监督的模型，结合了预训练的恐龙图像描述符和环相通讯的特性。我们使用affcorrs来找到相应的课内和间单弹部分分割的负担。这项任务比有监督的替代方案更加困难，但是可以通过模仿和辅助远程处理等将来的工作，例如学习能力。
translated by 谷歌翻译
骨关节炎（OA）是影响全球人口大量比例的最常见的联合障碍，主要是老年人。尽管其个人和社会经济负担，但仍然无法可靠地预测OA的发病和进展。旨在填补这种诊断缺口，我们介绍了基于生成模型的无监督学习计划，以预测基于膝关节X线本的OA的未来发展。使用来自骨关节炎研究的纵向数据，我们探讨了潜在的时间轨迹，以预测患者未来的射线照片，达到八年的随访访问。我们的模型预测了对OA的进展的风险，并超越了其监督对应物，其投入由七位经验丰富的放射科医师提供。通过支持模型，灵敏度，特异性，阳性预测值和负预测值显着增加到42.1％至51.6％，从72.3％到88.6％，从28.4％到57.6％，83.9％至88.4％，分别在没有这种支撑的情况下，放射科医生仅比随机猜测更好地进行。尽管需要在训练阶段没有人为注释，但我们的预测模型可以提高对OA发作和进展的预测。
translated by 谷歌翻译
Supervised Question Answering systems (QA systems) rely on domain-specific human-labeled data for training. Unsupervised QA systems generate their own question-answer training pairs, typically using secondary knowledge sources to achieve this outcome. Our approach (called PIE-QG) uses Open Information Extraction (OpenIE) to generate synthetic training questions from paraphrased passages and uses the question-answer pairs as training data for a language model for a state-of-the-art QA system based on BERT. Triples in the form of <subject, predicate, object> are extracted from each passage, and questions are formed with subjects (or objects) and predicates while objects (or subjects) are considered as answers. Experimenting on five extractive QA datasets demonstrates that our technique achieves on-par performance with existing state-of-the-art QA systems with the benefit of being trained on an order of magnitude fewer documents and without any recourse to external reference data sources.
translated by 谷歌翻译
This paper presents a machine learning approach to multidimensional item response theory (MIRT), a class of latent factor models that can be used to model and predict student performance from observed assessment data. Inspired by collaborative filtering, we define a general class of models that includes many MIRT models. We discuss the use of penalized joint maximum likelihood (JML) to estimate individual models and cross-validation to select the best performing model. This model evaluation process can be optimized using batching techniques, such that even sparse large-scale data can be analyzed efficiently. We illustrate our approach with simulated and real data, including an example from a massive open online course (MOOC). The high-dimensional model fit to this large and sparse dataset does not lend itself well to traditional methods of factor interpretation. By analogy to recommender-system applications, we propose an alternative "validation" of the factor model, using auxiliary information about the popularity of items consulted during an open-book exam in the course.
translated by 谷歌翻译